Trước cách mạng, địa giới phường hiện nay thuộc làng Lai Thành.

Sau cách mạng tháng Tám, địa bàn phường hiện nay khi đó thuộc địa giới xã Đông Hải.

Năm 1971, xã Đông Hải được sáp nhập vào thị xã Thanh Hóa.

Đến năm 1994, thành lập phường Đông Sơn trên cơ sở một phần diện tích và dân số của xã Đông Hải.

Đông Sơn nằm bên tuyến kênh Nhà Lê, là tuyến đường thủy đầu tiên trong lịch sử Việt Nam từ kinh đô Hoa Lư đến Đèo Ngang và được xem là tuyến đường Hồ Chí Minh trên sông vì những đóng góp cho các cuộc chiến tranh của người Việt.